Selective Test-Time Compute Scaling for Click-Through Rate Prediction via Uncertainty-Triggered Feature Path Exploration
面向CTR预测的选择性测试时计算缩放:不确定性触发特征路径探索
🧭 测试时优化 · CTR预测 · 不确定性估计 ★ 深度解读
Alibaba Group
提出训练无关、模型无关的测试时框架UTTSI,根据样本不确定性自适应分配多路径探索,显著提升CTR预测性能
📌 工作参考价值(4 点)
- 不确定性感知的推理预算分配:在电商推荐中,用户/物品交互稀疏导致部分样本预测不可靠。UTTSI 通过 Count-Min Sketch 统计特征频率作为先验,结合模型 logit 置信度(或梯度属性)计算样本不确定性,从而为高不确定性样本投入额外计算,低不确定性样本快速通过。该方法无需修改模型,可轻量植入现有线上服务,尤其适合特征稀疏的业务。
- 多路径特征探索与一致性加权:对高不确定性样本,基于频率和属性分数随机采样生成多个特征子集,并行做多次前向预测,再用一致性加权聚合,可平均化噪声、提升鲁棒性。工程上可将多个子路径预测部署在并行 worker 上,保持单次前向延迟不变,适合有GPU平算资源的在线推理。
- 自适应特征过滤:通过离线计算每个特征场的可靠性阈值(分位数),推理时过滤低可靠性特征(频率+属性双低),简单有效。可单独作为一种特征去噪 trick 应用于生成式推荐或 Agent 的输入预处理,在保证高置信度特征的同时抑制噪声。
- 测试时计算缩放的范式迁移:本工作表明,即使不改变模型结构和训练流程,仅在推理时按需分配计算,也能带来可观的线上收益(A/B CTR 相对提升 5.3%)。对于有严格延迟要求但有额外算力的电商推荐系统,可以借鉴这种“推理时计算预算分配”思想,对低置信度请求进行多路召回或额外特征融合,而不影响基础链路。